Ông tên thật là Nguyễn Trọng Cảnh (阮仲景), sinh ngày 23 tháng 1 năm 1916, quê ở xóm 3 xã Nam Trung, huyện Nam Đàn, tỉnh Nghệ An. (Nhưng có thông tin ông sinh ở huyện Can Lộc, tỉnh Hà Tĩnh. Được Ông Nguyễn Trọng Đảng nhận làm con nuôi, về sinh sống ở xóm 3 xã Nam Trung, huyện Nam Đàn, tỉnh Nghệ An). Tháng 3 năm 1934, ông gia nhập Đảng Cộng sản Đông Dương. Sau đó, ông đã từng giữ nhiều chức vụ quan trọng như: Xứ uỷ Bắc Kỳ, Bí thư Thành uỷ Hà Nội, Bí thư các Liên khu uỷ khu II, Khu X.

Ông từng bị tù ở nhà tù Sơn La cùng với Lê Đức Thọ, Hoàng Minh Chính, Tô Hiệu, Nguyễn Lương Bằng, Trần Huy Liệu, Lê Thanh Nghị,... và là Bí thư chi bộ nhà tù Sơn La từ tháng 7 năm 1943 đến tháng 3 năm 1945.

Năm 1952, Trần Quốc Hoàn làm Giám đốc Nha Công an Việt Nam. Năm sau, Nha Công an Việt Nam chuyển thành Thứ Bộ Công an thì ông trở thành Thứ trưởng Thứ Bộ Công an. Ngay trong năm 1953, Thứ Bộ Công an lại đổi tên thành Bộ Công an và Trần Quốc Hoàn trở thành Bộ trưởng Bộ Công an (1953-1975), rồi Bộ trưởng Bộ Nội vụ (Bộ Công an đổi tên) đến năm 1981.

Đầu năm 1961, Tổng thống Mỹ John F Kennedy ký lệnh triển khai “chiến dịch chiến tranh bí mật phá hoại miền Bắc Việt Nam”, với mục đích phá hoại cơ sở vật chất ở miền Bắc Việt Nam. Chiến dịch này nằm dưới sự chỉ đạo của CIA, sau được Lầu Năm Góc tiếp quản năm 1964. CIA và lực lượng đặc biệt Mỹ trực tiếp chỉ đạo, huấn luyện, trang bị để các nhóm biệt kích đột nhập vào miền Bắc để phá hoại cơ sở hạ tầng, hình thức chủ yếu là sử dụng các tiểu đội biệt kích dù.

Trong thời gian này Trần Quốc Hoàn trực tiếp phụ trách việc chống gián điệp, biệt kích do Mỹ thả xuống và giành thắng lợi lớn: gần 500 lính biệt kích bị tử trận, bị bắt hoặc trở thành điệp viên hai mang, trong khi gần như không gây thiệt hại được gì. Ngành công an Việt Nam Dân Chủ Cộng Hòa với 19 chuyên án đã câu nhử, bắt sống hoặc tiêu diệt được 121 lính biệt kích. Tài liệu Mỹ được giải mã sau chiến tranh tiết lộ: trong số 240 điệp viên "dài hạn" được tung vào miền Bắc, đã có 8 chết khi nhảy dù, 33 bị lực lượng an ninh Việt Nam tiêu diệt, 33 chết vì bệnh tật, 146 bị bắt hoặc mất tích, 17 phải tháo lui[1]. Ông cũng phụ trách vụ án xét lại chống Đảng, bắt giữ nhiều nhân vật bị tình nghi làm gián điệp cho ngoại quốc. Sau đó ông làm Bí thư Trung ương Đảng Cộng sản Việt Nam, Trưởng Ban Dân vận Trung ương cho đến khi qua đời vào ngày 5 tháng 6 năm 1986.

Ông cũng từng là ủy viên Bộ Chính trị Đảng Cộng sản Việt Nam các khóa 3 (dự khuyết từ 1960 đến 1972) và 4, ủy viên chính thức Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam khoá II, III, và IV; Ban Bí thư Ban Chấp hành Trung ương Đảng Cộng sản Việt Nam khóa IV (từ năm 1980).